The Price of Isolation: Estimating the Ecosystem Cost of Symmetric Two-Sided A/B Testing
隔离的代价:对称双边A/B测试的生态成本估算
🧭 双边平台实验设计 · 极端值理论估算隔离成本
Snap Inc.
揭示双边平台隔离实验中,匹配质量重尾分布导致生态成本恒定不随规模消失,并提供预检程序
📌 工作参考价值(4 点)
- 在电商/广告等双边市场进行隔离实验(如对部分卖家和买家分桶)时,需提前评估匹配质量分布的尾部特性:若为重尾,隔离造成的用户参与度损失不会随池子增大而消失,必须纳入预算。
- 可借鉴预检流程:先在小规模探索数据上校准尾指数,利用论文公式预估隔离损失,若超过容忍阈值,改用单边消融或其它替代设计,避免无谓的生态伤害。
- 将隔离视作有成本的实验方法,类似多臂老虎机的探索成本,实验平台应提供工具自动估算并展示预期损失,帮助团队做实验设计决策。
- 对于推荐系统的冷启动实验或创作者侧实验,该方法可直接迁移:通过A/A测试量化隔离带来的参与度降级,并基于极值理论外推至全量场景。